AI model zabraniti tek ako ubije više od 50 ljudi?! Predlog kompanije Anthropic šokirao svet
Dodajte Kurir u vaš Google izbor- Anthropic je američkim zakonodavcima predložio nova pravila za kontrolu najmoćnijih AI modela, ali nacrt još nije ušao u zakonodavnu proceduru. Predlog predviđa sudsku zabranu tek kada model predstavlja neposredan rizik za više od 50 ljudi ili štetu veću od milijardu dolara.
- Kritike su usmerene na visoke pragove za intervenciju i na to što bi nezavisne procene bezbednosti mogli da finansiraju sami AI developeri. Predlog se odnosi na ozbiljne rizike poput biološkog oružja, sajber-napada i gubitka kontrole nad modelom.
Jedan detalj posebno je privukao pažnju sudeći da bi prema nacrtu zakona, država mogla da zatraži sudsku zabranu puštanja ili korišćenja modela tek kada on predstavlja predvidiv i neposredan rizik da usmrti ili teško povredi više od 50 ljudi ili izazove štetu na imovini veću od milijardu dolara.
Prema predloženim pravilima, država bi mogla da pokrene postupak za zaustavljanje AI modela ako postoji neposredna i predvidiva opasnost da on dovede do smrti ili teških povreda više od 50 ljudi. Drugi kriterijum odnosi se na moguću štetu na imovini veću od milijardu dolara.
Protivnici predloga upozoravaju da bi se tako moglo otežati reagovanje na opasne sisteme koji predstavljaju ozbiljnu pretnju, ali ne ispunjavaju zadate kriterijume. Zagovornici jasnih pravila, s druge strane, smatraju da je važno precizno definisati kada država može da zabrani razvoj ili korišćenje tehnologije, umesto da takva odluka zavisi od proizvoljne procene vlasti.
Nije reč o svakoj grešci veštačke inteligencije
Predlog se ne odnosi na obične greške četbota, netačne odgovore ili neprikladan sadržaj. Obuhvaćeni su posebno ozbiljni scenariji, među kojima su stvaranje ili puštanje biološkog oružja, sajber-napadi i situacije u kojima AI model izmakne kontroli svojih tvoraca. Rizik bi morao da bude predvidiv i neposredan, što znači da nije dovoljna samo teorijska mogućnost da bi tehnologija jednog dana mogla da bude zloupotrebljena.
Napredni AI modeli mogu da pomognu u otkrivanju bezbednosnih propusta, analizi podataka i istraživanju, ali iste sposobnosti mogu biti zloupotrebljene. Sistem koji razume računarske mreže, na primer, može da pomogne stručnjacima da ih zaštite, ali bi njegove mogućnosti mogle da budu iskorišćene i za napad. Zato se u raspravama o regulaciji sve češće postavlja pitanje kako proceniti rizik pre nego što se moćan model nađe u širokoj upotrebi.
Ko bi procenjivao opasnost?
Prema nacrtu koji je opisao portal TechCrunch, bezbednost najnaprednijih modela proveravali bi nezavisni evaluatori registrovani pri američkom Ministarstvu trgovine. Oni bi periodično procenjivali sposobnosti modela i rizike koje bi njihovo korišćenje moglo da donese. Ako utvrde da postoji neposredna opasnost koja potpada pod zakonske kriterijume, imali bi 72 sata da obaveste nadležno ministarstvo.
Jedan od spornih detalja jeste i finansiranje tih provera. Prema predlogu, kompanije koje razvijaju AI mogle bi da plaćaju nezavisne evaluatore, pod uslovom da naknada ne zavisi od rezultata procene. Kritičari, međutim, postavljaju pitanje kako bi se u praksi osiguralo da finansijska veza ne utiče na nezavisnost onih koji treba da procenjuju bezbednost tehnologije.
Sud bi odlučivao o zaustavljanju modela
Prema opisanom nacrtu, Ministarstvo trgovine ne bi moglo samo da naredi obustavu modela, već bi moralo da zatraži sudsku zabranu pred saveznim sudom u Vašingtonu. Sud bi razmatrao dokaze o postojanju rizika i odlučivao da li postoje uslovi za zaustavljanje njegovog puštanja ili korišćenja. Predlog bi tako ograničio mogućnost da pojedina državna agencija samostalno donese takvu odluku.
Ovakav pristup trebalo bi da obezbedi kontrolu nad državnim odlukama, ali kritičari smatraju da bi postupak mogao da uspori reakciju u situaciji kada se opasnost brzo razvija. U svetu veštačke inteligencije, gde se sposobnosti modela menjaju izuzetno brzo, pitanje nije samo ko ima pravo da reaguje već i koliko brzo može da spreči ozbiljnu štetu.
Šta Anthropic želi da postigne?
Kompanija navodi da predlog predstavlja deo njenog šireg okvira za bezbednost napredne veštačke inteligencije. U njemu se zagovaraju testiranje moćnih modela, transparentnost u vezi sa bezbednosnim nalazima i nezavisne procene rizika.
Na kraju, ideja jeste da se uvedu jasnija pravila za najnaprednije sisteme, ali i ograničenja državne moći da proizvoljno zaustavlja njihovo puštanje u upotrebu.
Zabranjeno preuzimanje dela ili čitavog teksta i/ili foto/videa, bez navođenja i linkovanja izvora i autora, a u skladu sa odredbama MONDO Inc uslova korišćenja i Zakonom o javnom informisanju i medijima.